L2 Penalty

释义 Definition

L2 penalty（L2 惩罚项）：一种在模型训练中加入的正则化项，用来惩罚参数（权重）过大，通常等于参数向量的平方和（或其比例）。它有助于减少过拟合、让模型更“平滑”。在机器学习中常见于岭回归（Ridge）与权重衰减（Weight Decay）等方法。

发音 Pronunciation (IPA)

/ˌɛl ˈtuː ˈpɛnəlti/

词源 Etymology

“L2”里的 L 指“长度/范数（norm）”，L2 表示欧几里得范数相关的度量；在正则化里通常使用 ‖w‖²（权重的平方和）。
“penalty”原意是“惩罚”，在优化里指在目标函数中额外加上一项“代价”，用来约束模型参数，使其不要变得过大。

例句 Examples

Adding an L2 penalty can reduce overfitting.
加入 L2 惩罚项可以减少过拟合。

The model was trained by minimizing the loss plus an L2 penalty on the weights to encourage smaller parameters and better generalization.
该模型通过最小化“损失函数 + 权重的 L2 惩罚项”来训练，从而鼓励更小的参数并提升泛化能力。

相关词 Related Words

• Regularization
• Ridge Regression
• Weight Decay
• L1 Penalty
• Elastic Net
• Overfitting
• Norm
• Loss Function

文学/经典作品中的用例 Literary & Notable Works

• The Elements of Statistical Learning（Hastie, Tibshirani, Friedman）：在正则化与岭回归相关章节中讨论与使用 L2 惩罚思想。
• Pattern Recognition and Machine Learning（Christopher M. Bishop）：在正则化、贝叶斯视角与线性模型部分涉及 L2 型惩罚/先验的对应关系。
• Deep Learning（Goodfellow, Bengio, Courville）：在正则化方法章节中介绍 L2 正则化与其在神经网络训练中的作用。